Bức tranh sơn dầu từ thế kỷ 19 làm mặt bìa trước được Plant mua trong một cửa hàng bán đồ cổ ở Reading, Berkshire, Anh[5][6][16]. Bức tranh được sắp đặt như được treo cân đối trên một bức tường đã bị phá hủy của một ngôi nhà ở ngoại ô.

Page nói bìa album thứ tư này có mục đích làm nổi bật hơn sự khác biệt thành thị/nông thôn mà Led Zeppelin III đã đề cập tới: "Nó nói về sự thay đổi trong tính cân bằng. Chỉ còn hình ảnh một ông già với một bó củi trên lưng là chưa bị đập đi. Điều đó có ý nghĩa rằng chúng ta nên quan tâm tới trái đất chứ không phải là tận dụng và phá hủy nó."[8]

Tuy nhiên, cũng nói về ý nghĩa của phần bìa này, anh lại có ý kiến: "Bìa đĩa phải là một thứ gì đó để những người khác thưởng thức chứ không phải là để tôi đánh vần ra tất cả mọi thứ, điều đó sẽ làm làm bạn thất vọng nhiều vào việc khám phá ra tính âm nhạc của album."[17]

Đây là một trong 10 bìa album được Royal Mail chọn làm "Bìa album tiêu biểu" trong bộ tem phát hành vào tháng 1 năm 2010[18].

Phần minh họa bên trong có tên "The Hermit" (Tu sĩ) được thiết kế bởi Barrington Colby MOM lấy ý tưởng từ lá bài cùng tên trong bộ bài nổi tiếng Rider-Waite[6]. Jimmy Page sau này thủ vai chính nhân vật này trong bộ phim ca nhạc của Led Zeppelin, The Song Remains the Same (1976). Bức tranh có trong bộ phim này có tên View in Half or Varying Light được bán đấu giá vào năm 1981[19].

Rất nhiều ấn bản theo phần bìa album này đã từng được giới thiệu. Một số phiên bản mô tả một người tiếp tế tóc râu rậm đang leo núi, trong khi một số phiên bản khác không hiển thị ngôi sao sáu cánh trong lồng đèn của tu sĩ. Nếu để phần ảnh trong của album đối xứng dọc qua tấm gương, ta có thể nhìn thấy hình một khuôn mặt trên các phiến đá. Có nhiều ý kiến cho rằng đó đơn giản là mặt của một "con chó đen"[19][nb 2].

Phần lời gõ máy của ca khúc "Stairway to Heaven", được in ở phần trong của mặt sau, là sản phẩm của Page. Anh tìm thấy một vài ký tự viết này trên một tạp chí rất xưa về nghệ thuật và chữ viết có tên The Studio từ thế kỷ 19. Page thấy chúng rất thú vị và quyết định phóng tác toàn bộ bảng chữ cái theo chúng[16].